Joint Learning of Experiential Rules and Policies for Large Language Model Agents
LLM Agent 经验规则与策略联合学习
🧭 LLM Agent 经验复用 · 规则增强强化学习 ★ 深度解读
Sun Yat-sen University
JERP联合更新经验规则池和策略参数,在多步交互任务上超越纯RL基线
📌 工作参考价值(4 点)
- 多步交互Agent(如对话导购)可维护规则池(如“先确认场景再推荐”),与模型RL训练同步更新,避免规则过时。
- 规则更新采用对比反思式生成:提供成功/失败轨迹给LLM,自动产出规则编辑操作(ADD/EDIT/UPVOTE/DOWNVOTE/MERGE),工程上可用固定模板解析,实现自动化规则管理。
- 规则效用评分机制与容量限制剪枝,确保规则池在在线学习中规模可控、质量可维护。
- 同批轨迹两次利用(策略更新、规则更新)提高数据效率;可与LoRA等参数高效微调结合,降低训练资源开销。